Tiếng Khmer là thành viên của ngữ hệ Nam Á, một ngữ hệ bản địa trong khu vực, phân bố từ bán đảo Mã Lai tới qua Đông Nam Á lục địa tới Đông Ấn Độ.[5] Hệ Nam Á, gồm có cả tiếng Môn, tiếng Việt và tiếng Munda, đã được nghiên cứu từ năm 1856 và được đề xuất như một ngữ hệ vào năm 1907.[6] Dù được nghiên cứu, vẫn có sự không rõ ràng trong mối quan hệ giữa những ngôn ngữ trong hệ này.[7] Gérard Diffloth đặt tiếng Khmer trong nhánh đông của nhóm ngôn ngữ Môn-Khmer.[8] Theo cách phân loại này, tiếng Khmer có quan hệ gần nhất với ngữ chi Bahnar (Ba Na) và Pear.[9] Cách phân loại gần đây hơn nghi ngờ tính chính xác của nhóm Môn-Khmer và đặt tiếng Khmer trong nhánh của chính nó, một trong 13 nhánh của hệ.[7]